研究速递 | 与人工智能 "合作"：从系统视角探索工作的未来

点击蓝字 关注我们

文献信息

“Collaborating” with AI: Taking a System View to Explore the Future of Work

作者：Callen Anthony, Beth A. Bechky, Anne-Laure Fayard

来源：Organization Science. Vol. 34, No. 5, 2023.

摘要

随着媒体对人工智能（AI）与人类协作的炒作，各组织纷纷投入大量资源开发和使用人工智能。在本文中，我们借鉴了组织中的技术理论，为研究 "与 "人工智能合作的意义确定了新的方向。借鉴之前的文献，我们考虑了用户与人工智能之间的互动如何通过将技术作为工具和媒介的理论视角展开。在反思人工智能技术与以往研究的技术有何不同时，我们提出了一个新的视角，将技术视为一个工作系统中的对应物，其中包括技术的设计、实施和使用。这一视角鼓励从根本上理解人工智能如何与工作相互交织，因此，以厚重描述为基础的民族志研究是一种合适的方法。我们认为，关系民族志方法可以帮助组织理论家应对从对等视角出发所面临的方法论挑战，并为未来研究提出了若干策略。

关键词：技术, 协作, 人工智能.

一、引言

    技术被视为工具和媒介可能难以抵制对人类与人工智能合作的炒作。人工智能的不断变化、不可见性和不可捉摸性可能会对研究技术和工作的传统方法提出挑战。作者提出，需要从更广阔的视角，追溯不同背景下的互动，并将分析范围从使用扩大到上游，从而对组织中如何开发和实际使用人工智能形成亟需的丰富而深刻的理解。

    本文总结了人与人工智能合作的三种视角，并提出采用关系民族志方法（Relational ethnography）研究人工智能如何影响组织中的工作与协作。关系民族志通过关注行为者之间 "涉及关系配置的过程"，能够探索一个领域（或就人工智能而言，一个工作系统）中行为者之间和行为者之间的动态。

二、和AI一起工作的挑战

    组织依赖技术来完成工作。过去半个世纪技术变革的快速速度，使得组织对技术的依赖变得越来越重要。因此，对工作场所技术的研究在组织理论中具有悠久而丰富的传统。技术被定义为以某种社会可识别的形式包装起来的物质和符号属性，如硬件、软件、技术。与早期将技术视为客观存在、其特征决定使用模式的研究不同，现代研究强调了技术的社会建构，即用户的解释和意义如何影响技术在任务中的应用方式。这一社会建构的观点强调了技术使用的高度情景化，使得同样的技术可能会被不同的用户以不同的方式解释和应用。

    过往关于技术和组织的文献对我们理解人工智能有很大帮助。学者们已经展示了这些技术如何支撑专业知识、实现协调、定义角色和组织以及挑战既定等级制度下的互动模式。因此，在考虑人工智能可能与用户协同工作的说法时，我们有大量的理论来解读这一前提。

    然而，人工智能的一些重要方面，即它的不断变化、不可见性和不可捉摸性，使人们对以前关于技术和工作的研究结果的适用性产生了疑问。以往的研究往往侧重于不连续的技术变革对社会关系的影响，而技术的物质特征在其他方面对用户的持续影响则被视为是稳定的。此外，人工智能的物质性可能是不可见的。我们可能很难从字面上 "看到 "这项技术并对其进行观察，也就是所谓的“黑盒”。

在实践中，这些物质特性往往同时存在。例如，如果一项技术是隐形的，那么它就不会受到质疑或审查，这就加强了它的不可捉摸性，使不断的变化在不知不觉中持续下去。这种组合的后果取决于人工智能系统的背景，因此必须得到研究人员的关注。

    除了这些物质属性之外，人工智能还具有极高的象征价值：它是一种通用技术，具有广阔的应用前景，吸引了公众的想象力。有关人工智能的故事及其象征意义似乎牵涉到整个经济：从个体劳动者到消费者，再到组织和整个行业。这助长了大量炒作，包括关于人类如何与人工智能合作的炒作。

作为工具的技术

    从工具视角出发的文献研究技术如何用于完成任务，重点关注用户的技能和专业知识。研究者们倾向于关注用户与技术在工作场所中的相互作用，特别是关注解释和实践如何影响技术在任务中的应用方式。以电子表格技术为例，研究者发现用户如何解释和运用其功能来完成工作。此外，工具视角强调了用户对技术的依赖程度与其是否了解技术内部运作之间的关系。有些技术被视为值得信赖的黑箱，即使用户不了解其内部运作也能够有效地使用。然而，专家用户往往会尝试理解和拆解他们所使用的工具，以避免对其的不了解或过度信任。这种解包的过程可能包括将技术特征与其他信息源进行比较，以加深对技术的理解。通过这种比较，用户能够揭示技术的内部特征和行为影响，形成持续的使用模式。因此，用户是如何使用技术以及他们对技术的探索程度往往取决于其专业知识和实践水平。对技术的专业知识不仅与对技术的探索同步发展，还影响着用户对技术的态度和行为。

    然而，人工智能的不可见性、不可知性和不断变化使得从工具的角度来研究人工智能会给关于专家如何在工作中发展技能和使用技术的理论带来困难。尽管这些矛盾会引发关于用户的专业技能和人工智能应用的重要问题，但它们最终都集中在用户在人工智能工具的感知过程中可能遇到的困难上。由于这一重点，这些研究往往忽视了人工智能进入工作场所之前的社会动态。事实上，这种技术视角忽略了用户当地环境中的人，如其他职业群体甚至客户，在塑造人工智能与人类如何共同工作方面可能发挥的作用。

作为媒介的技术

    组织中团体之间的协作往往依赖于技术，因为团体是通过技术来完成任务和进行交流的。当学者们把技术概念化为合作的媒介时，他们的观点是，机器和技术帮助人们理解他们的共同工作，并发展解决问题所需的知识。鉴于有观点认为人工智能将成为一种支持性合作者，因此，要探究如何将人工智能用作一种促进合作的技术，就必须思考人工智能如何帮助人们解决问题并完成组织中的共同任务。

    将人工智能视为一种媒介，就会发现人工智能的不可知性、不可见性和不断变化可能会影响群体如何建立有效合作所需的共识。这一视角与将技术视为工具的视角非常相似，强调用户在发展专业知识和相互合作时的实践和选择。由于在媒介视角下对技术的分析仅限于人工智能在协作过程中的使用方式，因此它并不涉及技术从何而来的问题，也没有为我们提供足够的杠杆来研究围绕人工智能的组织决策的复杂性。此外，虽然媒介视角比工具视角更实质性地涉及权力和地位的区别，但它关注的是角色和/或群体之间的区别，而不是工作中更广泛的组织和制度背景。因此，这种视角也没有提供足够广阔的视角来应对影响算法技术开发和实施的权力关系。

作为对应物的技术（counterpart）

    在试图理解人工智能与人类如何共同工作时，工具和媒介的视角是有限的。由于人工智能的不可见性、不可捉摸性和易变性，狭隘地关注用户和本地互动的视角可能最终只能研究关于人工智能如何工作的新兴叙事，而难以观察人工智能是如何在合作中使用的。专注于本地实践的学者从工具或媒介的角度出发，有可能加剧人工智能的特殊物质方面可能带来的挑战，而忽略了首先形成这些特性的多方参与者（包括生产者、受众和监管者）、结构和互动。此外，由于这些观点侧重于地方行动，因此难以捕捉到人工智能发展和实施过程中涉及的权力和政治。

    将人工智能概念化为互动系统中的一个积极对应方，以解读和理解其在组织流程中的作用，以及所有利益相关者 "与 "人工智能合作可能产生的意外后果。我们认为，系统观点能让我们更好地考虑到组织内创建、实施和使用人工智能所涉及的不同利益相关者和组成部分。在系统观点中，重点不是单个行为者，而是知识创造和工作如何从不同行为者之间的互动中产生。从系统的角度出发，承认人工智能在该系统中的作用，让我们在解读人工智能的生产者、实施者和使用者之间的权力动态以及可能产生的伦理问题时，能够关注更广泛的后果。

    研究表明，当今大多数人工智能都是由人类驱动的。人工智能的动力不是机器学习的计算能力，而是人们提供的知识和劳动。

    也就是说，探索算法与不同人类行为者（包括开发人工智能的技术公司的工程师、设计师、决策者，以及实施人工智能计划的组织（公共或私营）的决策者）之间的角色和关系的研究非常重要。

三、关系民族志方法

    本文建议研究人员采用关系民族志方法，它强调一个领域中行动者之间的关系，或者在我们的案例中，一个工作系统中行动者之间的关系。在本文中，分析表明，人工智能总是嵌入在不同职业、组织和领域的不同参与者之间的关系系统中。因此，要理解工作场所中的人工智能，就必须研究不同群体（即数据科学家、设计师、管理者和工人）创造、开发、实施和使用人工智能的关系。

    实施关系民族志可能需要研究技术和组织的学者拓宽研究方法。具体而言，我们认为学者们可以从两个方面重新思考他们的传统民族志：首先是拓宽研究设计和策略，其次是拓宽民族志学者的技能组合。

策略

    要利用关系民族志研究人工智能，我们建议学者们可以采取几种策略，研究系统的多个部分、环境、时间段和符号叙事，以帮助厘清行动者如何与人工智能合作的关键问题。

    研究系统的多个部分。从系统角度出发的学者们应该思考如何通过研究开发者、管理者和监管者来揭示他们的假设对人工智能如何成型的重要性，以及对使用的影响。通过收集多角度的数据，学者们可以很好地回答几个关键问题。例如，他们可以研究关于人工智能的未经证实的故事是如何出现并形成角色关系的；人工智能生产者的框架是如何影响使用模式的；谁在做这项工作，不同的参与者和人工智能之间的劳动分工是如何展开的；人工智能是否真的在取代更多的琐碎工作。要进行关系民族志研究，就必须对人工智能算法的开发、实施和使用过程中涉及的许多不同参与者进行研究。

    研究多种环境。在研究人工智能如何影响系统内的协作时，一个重要的问题是，当系统中存在不同的参与者时，系统是如何发展和变化的。学者们可以借鉴一些不同的跨环境比较策略，这些策略有助于匹配关键的相似点，并利用对建立新理论非常重要的差异。由于组织内的权力动态在研究工作中的人工智能时可能非常突出，因此匹配的方法可以帮助研究人员观察和厘清它们是如何出现和演变的。例如，对工作中与人工智能作斗争的不同职业群体或组织进行比较。可以研究同一人工智能在不同地方（组织或单位）的使用情况。这也可能意味着探索不同行业或不同文化中类似类型的人工智能。

    研究多个时间段。随着人工智能应用程序的生产和实施，它们将以连设计者都无法完全阐明的方式不断发展和发挥作用。这种演变很可能会改变参与者之间的关系，因此对人工智能进行长期研究非常重要。因此，研究人员应考虑人工智能与系统内参与者之间互动的跨时空性质。除了追溯物质演变之外，学者们还应考虑组织成员对人工智能的看法的变化。

    研究人工智能的符号叙事。话语和叙事是系统的一部分，它们可以塑造行动和互动。采用关系民族志方法的学者可能处于独特的位置，可以实际研究有关人工智能的积极叙事，追溯其起源和后果，以及它们如何塑造实践。学者们可能会发现，将过去的表述作为关键的分析单元，例如，公司为何采用特定技术、人工智能应用如何及为何设计、技术如何演变等，在分析中会大有裨益。此外，考虑到有关人工智能和进步的决定性言论，学者们也可以用类似的方式考虑对未来的构建。

技能组合

    关系民族志方法的实践中可能需要更广泛的技能组合，如发展基于团队的方法、改变访谈方法、利用档案数据和调查，以及使用数字痕迹等。

基于团队的方法。技术与组织的民族志研究通常是由一个单独的人种学研究者专注于一个或两个组织，并观察同处一地的参与者。相反，以团队为基础的方法似乎更适合于探索人工智能和协作系统观点的关系民族志。采用这种方法，研究人员可以独立收集数据，然后进行比较分析。另外，团队还可以一起收集数据，相互迭代，以确保他们收集的数据与新出现的解释相一致。

    深化访谈技巧。由于人工智能的隐蔽性和不可捉摸性，很大一部分工作变得不可见。在关系民族志中，为了更好地理解不同参与者之间的关系，我们可以要求我们的信息提供者描绘出参与人工智能设计、开发、实施和使用的不同参与者（人类和非人类）。还可以借鉴设计研究等其他领域的方法。在人工智能的关系民族志中，访谈变得更加重要，而拓宽我们的访谈技巧可以解决人工智能棘手的观察方面的一些问题。

    利用档案数据和调查。档案数据的使用可以帮助学者获取实地调查之前的数据，例如，通过将访谈与公司内部文件等档案数据进行三角测量。此外，关系民族学者还可以利用档案文件来揭示和分析系统内参与者之间关系的性质。

使用数字痕迹。随着技术在组织中变得无处不在，信息系统研究人员探索了文档的作用，尤其是数字痕迹，这些痕迹有助于我们了解系统中的协作和工作是如何完成的。追踪文件不仅包括内容交流，还包括数据库、电子邮件服务器和云系统上的活动，以及围绕这些活动的组织实践。是另一种有助于绘制行动者系统图的方法。因此，关系民族学家可以收集开发者、实施者和用户交流的所有不同形式的通信。同时，考虑到人工智能的特性，这可能会给学者们带来困难。由于许多算法都是专有的，因此难以捉摸，学者甚至组织参与者可能无法获取某些数字痕迹。此外，由于人工智能是不断变化的，研究人员需要长期仔细跟踪输入和输出。此外，学者们必须记住，在大多数组织中，数字痕迹与现实世界的互动交织在一起，因此研究人员需要探索数字痕迹周围的环境。就人工智能而言，这意味着追踪谁在创建输入、实施工具或使用输出，并激发这些参与者的实践和对数据的解释。数字痕迹还能帮助研究人员分析不在同一地点的参与者之间的互动和关系，从而发现不易观察到的参与者之间的关系和工作。

四、结论

    尽管有关工人与人工智能将如何和谐合作的正面报道不断涌现，但这些报道只是抽象地描绘了人工智能在工作中的作用，而忽略了数十年来有关技术与组织的丰富文献，这些文献对行为者与技术之间的互动进行了理论化研究。随着各组织（私人和公共组织）纷纷投入巨资开发、获取和实施人工智能，我们需要更好、更丰富地理解人工智能，理解它是如何设计、实施和使用的，以及它可能如何重构社会和经济生活。然而，我们将技术视为工具和媒介的传统观点可能会压制人工智能的重要物质、象征和关系维度。

    本文认为，要更好地理解人工智能、工作和协作，就需要一种对应物的视角，要求学者研究一个系统，而不仅仅是用户。通过研究系统，学者们可以分析职业和组织中不同人类参与者与人工智能算法及其输出之间的互动和关系。然而，要做到这一点，我们需要通过关系民族志收集丰富的数据。关系民族学关注不同参与者和机构之间的多重和不断演变的关系安排，非常适合这种分析。此外，这种方法将帮助我们超越组织中人工智能的符号叙述和抽象表述。这些研究不仅能为人工智能提供更接地气、更丰富的图景，还能揭示人工智能的创造、实施和使用及其意外后果背后的权力动态。

如何获取文献？

关注本公众号：图灵财经

点击文末“阅读全文”获取

来源：Organization Science

作者：Callen Anthony, Beth A. Bechky,

作者：Anne-Laure Fayard

精彩推荐

更多精彩内容